除了考虑人类姿势和遮挡引起的识别难度外，还必须解决可见的 - 热跨模式重新识别（VT-REID）任务中不同成像系统引起的模态差异。在本文中，我们提出了跨模式的局部最短路径和全局增强（CM-LSP-GE）模块，这是一个基于本地和全局特征联合学习的两流网络。我们论文的核心思想是使用局部功能对准来解决遮挡问题，并通过增强全球功能来解决模态差异。首先，基于注意力的两流重新系统网络旨在提取双模式特征并映射到统一的特征空间。然后，为了解决跨模式的人姿势和遮挡问题，将图像水平切成几个相等的部分以获得局部特征，并且使用两个图之间的局部特征中最短路径来实现细粒度的局部特征对齐。第三，批归归式化的增强模块应用了全局特征来增强策略，从而导致不同类别之间的差异增强。多粒度损失融合策略进一步提高了算法的性能。最后，使用本地和全球特征的联合学习机制用于提高跨模式的重新识别精度。两个典型数据集的实验结果表明，我们的模型显然优于最先进的方法。尤其是在SYSU-MM01数据集上，我们的模型在Rank-1和MAP的所有搜索术语中都可以获得2.89％和7.96％的增益。源代码将很快发布。

我们研究了积极学习的问题，即学习者通过乐于助人的老师辅助的扭曲。我们考虑以下自然交互协议：在每一轮时，学习者提出了一个查询询问实例$ x q $的标签，老师提供请求的标签$ \ {x ^ q，y ^ q \} $通过解释信息来指导学习过程。在本文中，我们以额外的对比示例的形式查看此信息（$ \ {x ^ c，y ^ c} $），其中$ x ^ c $摘自$ x ^ q $（例如，具有相同标签的异种情况）。我们的重点是设计一种教学算法，可以向学习者提供信息的对比序列，以加快学习过程。我们表明这导致了一个具有挑战性的序列优化问题，其中算法在给定轮的选择取决于交互历史。我们调查了一种高效的教学算法，可自适应地选择这些对比示例。我们基于两个问题依赖性参数促进了我们的算法的强大性能保障，进一步表明，对于特定类型的活跃学习者（例如，广义二进制搜索学习者），所提出的教学算法表现出强烈的近似保证。最后，我们通过两个数值案例研究说明了我们的界限并展示了我们的教学框架的有效性。

社交媒体意见两极分化的大量工作集中在媒体痕迹不同社区的立场（或正交信念）的平坦分类。我们在两个重要方面扩展了这项工作。首先，我们不仅检测到社区之间的分歧点，而且还检测到一致性点。换句话说，我们在存在重叠的情况下估计社区信念。其次，代替平坦的分类，我们考虑了层次的信念估计，在该估计中，社区可能会分层。例如，两个反对党可能在核心问题上不同意，但是在一方，尽管同意基本面，但在进一步的细节上可能会出现分歧。我们称由此产生的组合问题为分层重叠的信念估计问题。为了解决它，本文开发了一类新的无监督的非负矩阵分解（NMF）算法，我们称信仰结构化矩阵分解（BSMF）。我们提出的无监督算法捕获了潜在的信仰交叉点和差异性以及等级结构。我们讨论算法的属性，并在合成数据集和现实世界数据集上进行评估。在合成数据集中，我们的模型将误差降低了40％。在实际的Twitter痕迹中，它的准确性提高了约10％。该模型还可以在理智检查中实现96.08％的自洽性。

Recent advances in self-supervised learning (SSL) in computer vision are primarily comparative, whose goal is to preserve invariant and discriminative semantics in latent representations by comparing siamese image views. However, the preserved high-level semantics do not contain enough local information, which is vital in medical image analysis (e.g., image-based diagnosis and tumor segmentation). To mitigate the locality problem of comparative SSL, we propose to incorporate the task of pixel restoration for explicitly encoding more pixel-level information into high-level semantics. We also address the preservation of scale information, a powerful tool in aiding image understanding but has not drawn much attention in SSL. The resulting framework can be formulated as a multi-task optimization problem on the feature pyramid. Specifically, we conduct multi-scale pixel restoration and siamese feature comparison in the pyramid. In addition, we propose non-skip U-Net to build the feature pyramid and develop sub-crop to replace multi-crop in 3D medical imaging. The proposed unified SSL framework (PCRLv2) surpasses its self-supervised counterparts on various tasks, including brain tumor segmentation (BraTS 2018), chest pathology identification (ChestX-ray, CheXpert), pulmonary nodule detection (LUNA), and abdominal organ segmentation (LiTS), sometimes outperforming them by large margins with limited annotations.

Natural Language Processing (NLP) has been revolutionized by the use of Pre-trained Language Models (PLMs) such as BERT. Despite setting new records in nearly every NLP task, PLMs still face a number of challenges including poor interpretability, weak reasoning capability, and the need for a lot of expensive annotated data when applied to downstream tasks. By integrating external knowledge into PLMs, \textit{\underline{K}nowledge-\underline{E}nhanced \underline{P}re-trained \underline{L}anguage \underline{M}odels} (KEPLMs) have the potential to overcome the above-mentioned limitations. In this paper, we examine KEPLMs systematically through a series of studies. Specifically, we outline the common types and different formats of knowledge to be integrated into KEPLMs, detail the existing methods for building and evaluating KEPLMS, present the applications of KEPLMs in downstream tasks, and discuss the future research directions. Researchers will benefit from this survey by gaining a quick and comprehensive overview of the latest developments in this field.

图形神经网络（GNNS）在图表表示学习中获得了动力，并在各种领域（例如数据挖掘）（\ emph {e.g。，}社交网络分析和推荐系统），计算机视觉（\ emph {例如，}对象检测和点云学习）和自然语言处理（\ emph {e.g。，}关系提取和序列学习），仅举几例。随着自然语言处理和计算机视觉中变压器的出现，图形变压器将图形结构嵌入到变压器体系结构中，以克服局部邻域聚集的局限性，同时避免严格的结构电感偏见。在本文中，我们从面向任务的角度介绍了计算机视觉中GNN和图形变压器的全面综述。具体来说，我们根据输入数据的模式，\ emph {i.e。，} 2D自然图像，视频，3D数据，Vision +语言和医学图像，将其在计算机视觉中的应用分为五个类别。在每个类别中，我们根据一组视觉任务进一步对应用程序进行划分。这种面向任务的分类法使我们能够检查如何通过不同的基于GNN的方法以及这些方法的表现如何解决每个任务。基于必要的初步，我们提供了任务的定义和挑战，对代表性方法的深入报道以及有关见解，局限性和未来方向的讨论。

旨在识别不同网络中的相应节点的网络对齐任务对许多随后的应用程序具有重要意义。不需要标记的锚点链接，无监督的对准方法吸引了越来越多的关注。但是，由现有方法定义的拓扑一致性假设通常是低阶且准确的，因为仅考虑边缘式拓扑模式，这在无监督的环境中尤其有风险。为了重新定位对齐过程从低阶到高阶拓扑一致性的重点，在本文中，我们提出了一个名为HTC的完全无监督的网络对齐框架。提出的高阶拓扑一致性是基于边缘轨道制定的，将其合并到图形卷积网络的信息聚合过程中，以便将对齐一致性转换为节点嵌入的相似性。此外，编码器经过培训为多轨了解，然后进行完善以识别更受信任的锚点链接。通过整合所有不同的一致性顺序，可以全面评估节点对应关系。 {除了合理的理论分析外，所提出方法的优越性还通过广泛的实验评估得到了经验证明。在三对现实世界数据集和两对合成数据集上，我们的HTC始终以最少或可比的时间消耗优于各种各样的无监督和监督方法。由于我们的多轨道感知训练机制，它还表现出对结构噪声的鲁棒性。

在临床实践中，放射科医生经常使用属性，例如病变的形态学和外观特征，以帮助疾病诊断。有效地建模属性以及所有涉及属性的关系可以提高医学图像诊断算法的概括能力和可验证性。在本文中，我们介绍了一种用于基于可验证属性的医学图像诊断的混合神经培养基推理算法。在我们的混合算法中，有两个平行分支，一个贝叶斯网络分支执行概率因果关系推理，图形卷积网络分支执行了使用特征表示的更通用的关系建模和推理。这两个分支之间的紧密耦合是通过跨网络注意机制及其分类结果的融合来实现的。我们已成功地将混合推理算法应用于两个具有挑战性的医学图像诊断任务。在LIDC-IDRI基准数据集上，用于CT图像中肺结核的良性恶性分类，我们的方法达到了95.36 \％的新最新精度，AUC为96.54 \％。我们的方法还可以在内部胸部X射线图像数据集上提高3.24 \％的精度，以诊断结核病。我们的消融研究表明，在非常有限的培训数据下，与纯神经网络体系结构相比，我们的混合算法的概括性能要好得多。

COVID-19的大流行造成了毁灭性的经济和社会破坏，使全球医疗机构的资源紧张。这导致全国范围内呼吁模型预测Covid-19患者的住院和严重疾病，以告知有限医疗资源的分配。我们回应针对儿科人群的其中一种。为了应对这一挑战，我们使用电子健康记录研究了针对儿科人群的两项预测任务：1）预测哪些儿童更有可能住院，而2）在住院儿童中，哪些孩子更有可能出现严重的症状。我们通过新颖的机器学习模型MEDML应对国家儿科Covid-19数据挑战。 MEDML根据超过600万个医学概念的医学知识和倾向得分提取了最预测的特征，并通过图神经网络（GNN）结合了异质医学特征之间的功能间关系。我们使用来自国家队列协作（N3C）数据集的数据评估了143,605名患者的MEDML，并在143,605名患者的住院预测任务中评估了严重性预测任务的11,465名患者。我们还报告了详细的小组级和个人级特征的重要性分析，以评估模型的解释性。与最佳的基线机器学习模型相比，MEDML的AUROC得分高达7％，AUPRC得分高达14％，并且自大流行以来的所有九个国家地理区域以及所有三个月的跨度都表现良好。我们的跨学科研究团队开发了一种将临床领域知识纳入新型机器学习模型的框架的方法，该框架比当前最新的数据驱动的功能选择方法更具预测性和可解释。

目的：在本文中，我们旨在从大量未标记的脑电图（EEG）信号中学习强大的向量表示，以使学习的表示（1）表现得足以替代睡眠分期任务中的原始信号； （2）在较少的标签和嘈杂样本的情况下，提供了比监督模型更好的预测性能。材料和方法：我们提出了一个自我监督的模型，称为与世界表示形式（Contrawr）相比，用于EEG信号表示学习，该模型使用数据集中的全局统计信息来区分与不同睡眠阶段相关的信号。在包括在家中的三个现实世界EEG数据集上评估了Contrawr模型，这些模型既包括在家中录制设置。结果：Contrawr在三个数据集中的睡眠登台任务上，Moco，Simclr，Byol，Simsiam胜过最新的自我监督学习方法。当可用的培训标签较少时，Contrawr还会击败受监督的学习（例如，标记不到2％的数据时，精度提高了4％）。此外，该模型在2D投影中提供了信息表示。讨论：建议的模型可以推广到其他无监督的生理信号学习任务。未来的方向包括探索特定于任务的数据增强，并将自我监督与监督方法结合起来，这是基于本文自我监督学习的最初成功。结论：我们表明，Contrawr对噪声是强大的，并且可以为下游预测任务提供高质量的EEG表示。在低标签场景（例如，只有2％的数据具有标签），Contrawr的预测能力（例如，睡眠分期准确性提高了4％）比监督的基线要好得多。